无人驾驶，法律你准备好了吗？
无人驾驶，法律你准备好了吗？
作者：Ryan Calo，民法教授，华盛顿大学法学副教授，研究自动驾驶汽车近10年。
来源：https://cacm.acm.org
编译：plus评论员 张涛
虽然文章的标题是“无人驾驶，法律你准备好了吗”，但我仍然认为美国法律已经决定了要接纳自动驾驶汽车。法院几百年来不断遭遇各种新技术的出现，而法院也必须对这些新技术产生的法律问题做出决定。未来法庭可能必须要面对的一个问题就是当自动驾驶汽车或自动驾驶系统普及以后，如何解决各种当前无法预见的伤害？
我们可以设想自动驾驶汽车被广泛使用的场景，自动驾驶比人类驾驶更加安全，人们可以在车辆行驶的过程中看电影、发邮件。法庭虽然很容易地决定谁应当对偶然发生无人驾驶汽车事故负责，但一些权威人士和法律界人士对此颇为不满。当有人创造出一个能够让人们安全地运动的产品时，法官就会把这种责任分配给事故汽车制造商。也会有一些比较难判断和决定的案例。政策的制定者必须在无人驾驶汽车上路前给出无人驾驶汽车上路的安全要求。
未来可能会出现这样的场景，人类和自动驾驶系统都可以参与但未参与的情况下，法院又将必须确定责任划分，这将陷入一个困境。如果法院发现有人类司机可以承担责任，也会避免机器去担责。另一方面，也要限制和防止公司将责任转嫁到车主身上，因为公司会要求车主点击同意服务条款协议。
在去年致命的特斯拉撞车事故中，死者司机承担了使用自动驾驶的风险。今年，一辆Uber的无人驾驶汽车撞死了行人，但行人不该承担这样的责任。然而在一个新技术的时代里，传统法律亟需解决这些棘手的新问题。Uber会对被撞者家属进行赔偿，否则法院将出面解决。
对于自动驾驶，面临的另一个问题可能就是“新电车难题”，自动驾驶汽车将必须做出细粒度的道德决策，以决定在发生事故时要杀死谁。我们可以想象一个驾驶技术特别差的机器人在驾驶时发现它必须做出“杀掉”某人的决定。同时，机器人会进行复杂的权衡来实时地做出杀掉一个小孩还是三个老人的抉择。
技术对法律的挑战并不会随着时间和空间的推移而变化，但无人驾驶可能会，因为技术可能会给现有的法律体系无法预测的一个新颖的启示。
我们可以假设另一个场景，未来在无人驾驶领域有一个制造商能够脱颖而出。其车辆不仅不需要乘车者在保持相当高的安全记录的同时驾驶，而且可以自适应地减少其对环境的影响。该系统的设计者不仅提供了更大的燃料效率，还能够保持与道路行驶法规相一致。在一个月左右部署完成后，车辆发现如果用充满电的电池运行的话，会更高效。因此，汽车决定在车库里通宵运行燃气发动机，但这会杀死家里的每一个人。
我们可以想象如果汽车的设计师们出庭的时候，他们肯定会否定关于发生的这一切。他们知道无人驾驶的汽车可能会发生事故。他们知道燃气可能会耗尽，也可能把乘客撞死。但他们从没想过汽车会通过一氧化碳中毒杀人。
乍一看，这与无人驾驶汽车事故一样容易，但可能并不是。即使在严格的责任制度下，不需要在被告身上发现意图或过失，法院仍需要原告表明被告至少可以预见所发生的损害类别。相关的法律术语是“因果关系”。因此，一家用炸药拆除建筑物公司需要对由于爆炸引起的振动而使附近的停车场倒塌的事故负责，即使该公司使用的是中最佳做法。但是，在1954年华盛顿的法庭上，拆迁公司并不对爆炸场地附近的水貂养殖场中的水貂因为震动而本能地吞噬它们的幼崽的行为负责。前者的伤害是可预见的，因此是公平的责任基础；而第二种伤害则不是。随着越来越多的自适应系统进入现实世界，法院将不得不重新审视这种“可预见性”的作用在“因果关系和公平”中的基本作用。
系统设计师扮演什么样的角色呢？当然，我不建议将修改或出现作为研究目标或系统特征。事实上，机器在解决问题方面越来越有用，因为它们以人类意想不到的方式去解决问题、发现模式和实现目标。
尽管如此，我还会提一些想法供大家参考。
首先，对于尝试预测机器人行为和减轻伤害的工具的投资是值得的。密歇根大学就建造了一个人造城市（环境）来对无人驾驶汽车进行测试。虚拟环境虽然可以用来研究机器人与复杂输入的交互作用，但不能预测所有可能的行为。但是在投放在公路之前，我们对自动驾驶系统的了解越多越好。
第二，非常重要的一点是研究人员应当被允许甚至被鼓励测试这样的的系统。公司和监管者应当支持对自动驾驶技术的研究，以了解可能的反应。最接近的类比应当是安全生态中的漏洞奖励计划；至少，服务条款协议应该声明针对安全相关关键的研究是受欢迎和支持的，不会遭到诉讼。
最后，目前的人工智能浪潮之前有一波同等重要的互联浪潮。研究互联的公司目前正在将智能产品互联，这可能会带来问题，但同时也是一个好的监控的机会。
所有的这些干预方法都不是万能的，不能解决所有问题。但好消息是我们还有时间。从法学教授的观点来看，包括自动驾驶汽车在内地第一代主流机器人并没有给法律带来真正的难题。但下一代可能就会带来问题了。在此期间，我希望法律和技术界可以携手努力解决技术不确定性产生的法律不确定性问题。
Ryan Calo
民法教授，华盛顿大学法学副教授，研究自动驾驶汽车近10年
（全文完）
声明：版权归原作者所有。文章观点不代表本机构立场。
《中国电子科学研究院学报》欢迎各位专家、学者赐稿！投稿链接
http://kjpl.cbpt.cnki.net
学报电话：010-68893411
学报邮箱：dkyxuebao@vip.126.com